王佑镁等｜“阿拉丁神灯”还是“潘多拉魔盒”：ChatGPT教育应用的潜能与风险
2022年11月30日，由美国人工智能研究实验室OpenAI上线发布的全新聊天机器人模型ChatGPT火爆全网，其在上线后短短5天内便吸引了超过百万用户，这是社交媒体平台Meta用了10个月、流媒体平台Netflix用了3年才达到的成绩（Hurst，2022）。ChatGPT可以针对用户输入的内容生成更自然的响应文本，允许用户与其就任何事情进行自然语言对话。其敢于质疑、承认无知、支持连续多轮对话与上下文理解等特性吸引了大量教育研究者和工作者的关注。
一些研究者认为ChatGPT将加速教育变革。“有了ChatGPT，教育可能永远不一样。”（Euchner，2023）“ChatGPT如果使用得当，将是一种强大的教育工具。”（Rudolph et al.，2023）也有学者指出，ChatGPT成为了抄袭和作弊的利器（王树义等，2023），滥用ChatGPT可能会对学术公平性产生一定的负面影响（朱光辉等，2023）。那么，ChatGPT会如何改变教育呢？它到底是教育的“阿拉丁神灯”还是“潘多拉魔盒”呢？面对人工智能的飞速发展，教育工作者该如何做好准备迎接此类新技术的出现呢？本文拟结合各界对ChatGPT的应用与探索，尝试探讨其在教育中应用的潜能与限度。
从内容的创作者角度来看，互联网的内容生产形态目前为止可大致分为三个阶段，分别是专业生成内容（Professional Generated Content，PGC）、用户生成内容（User Generated Content，UGC）和人工智能生成内容（AI Generated Content，AIGC），具体如表1所示（王诺等，2022）。
专业生成内容（PGC）是Web1.0时代主要的内容生成模式，主要通过鼠标键盘的操作进行专业内容分享，创作者是具备专业知识和技能的专业人士，分享内容具有专业化、垂直化与权威化等特点（张新新等，2022）。此阶段依赖静态和动态HTML网页技术，以静态单向阅读为主，用户仅是被动参与，难以产生交互和新内容的创作。Web2.0时代，互联网内容生成由专家主导转向用户主导模式，即用户生成内容（UGC）。这一阶段创作权由专业人员让渡给普通用户，用户既是内容受众，也是内容的创造者和发布者。用户可根据自身需求，自主创作需要的内容，分享内容也更加多元化、个性化、民主化和创新化。此阶段以Blog、SNS、RSS、Wiki等社会性软件的应用为核心，由六度分隔、XML、AJAX等新理论和技术支持展开。目前，互联网已逐步迈入Web3.0时代。随着人工智能技术的不断改进，通过自然语言处理（Natural Language Processing，NLP）和自然语言生成（Natural Language Generation，NLG）方法，依据用户某些词语或句子自动化生成满足用户需求的人工智能生成内容（AIGC）模式，已成为Web3.0时代内容生成的重要方式。相较于PGC和UGC，AIGC最大的不同就是能利用人工智能技术驱动机器创作内容，具有大模型、多模态、可控制和虚实共生等特征（李白杨等，2022）。AIGC被认为是推动元宇宙发展的加速器。
ChatGPT是基于人工智能技术的大型语言对话模型，是一种新型自然语言处理工具。ChatGPT首次采用从人类反馈中强化学习（Reinforcement Learning from Human Feedback，RLHF）的方式，具有根据用户反馈改进输出结果的能力，并会根据用户反馈持续化更新和学习，实现与真实对话无异的交流（Shen et al.，2023）。同时，ChatGPT采用了注重道德水平的训练方式，这使它具备了能判断不怀好意的提问和请求的能力，并能对它们“说不”（Tate et al.，2023）。OpenAI（2022）称，平台提供的对话模式令ChatGPT可以“回答后续的问题、承认自己的错误、挑战不正确的前提与拒绝不恰当的请求”。
从技术层面看，ChatGPT属于AIGC应用，是基于自然语言处理（NLP）和机器学习技术（Machine Learning，ML）的人工智能内容生成应用（George et al.，2023）。但从创作层面来说，ChatGPT不仅可以自动化生成内容，还可以根据用户提供的输入内容，生成用户内容和专家内容。ChatGPT基于GPT-3.5大型语言模型家族，结合监督学习和强化学习技术进行微调，拥有1750亿个模型参数（Hirosawa et al.，2023），能够以更接近人类思考的方式参与用户查询过程，并可以模拟多种人类情绪和语气，根据上下文和语境提供恰当回答，优化了GPT-3回答中看似通顺但脱离实际的问题（Taecharungroj，2023）。作为一个低门槛、高效率的文字内容生产工具，ChatGPT被认为将在智能客服、虚拟人、游戏、教育等领域获得更大落地，这对于传统的内容生产形态无疑是一次巨大的冲击。
ChatGPT一经推出便引起轰动，成为互联网上最受关注的人工智能应用之一。教育研究者和工作者也纷纷就ChatGPT在教育领域的应用潜力与影响展开探索与讨论。有学者认为，ChatGPT具有非常强大的信息搜索与整理能力，能为学生的疑问提供更丰富的答案，并允许学生使用自然语言找到他们所需要的学习资源，这将有望彻底改变基于互联网的信息搜索方式（Aljanabi et al.，2023）。它可以成为一个很好的AI助教，在短时间内帮助教师和学生制定课程计划、生成不同级别的问题列表；也能作为智能助理与秘书，辅助学生完成学术论文、程序和测验等（储舒婷，2023）。Zhai（2023）通过ChatGPT进行了一项实验研究：利用其完成了一篇题为《Artificial Intelligence for Education》的学术论文，发现ChatGPT能协助研究人员完成一篇连贯的、部分准确的、内容丰富的论文。他还将ChatGPT应用于科学学习中，并提出四项具体的应用范式：开发自动评估项目、评估再反馈、个性化学习指导与特殊需求的制定。Rudolph等（2023）探索了ChatGPT在高等教育中的可能应用，包括为教学引入创新性评价、创新教学策略、提供实验与经验学习、促进协作学习与团队合作等。
依据教育领域人工智能教育应用的基本取向和教学设计的基本要素（王春丽，2022），本文将ChatGPT在教育中的可能应用划分为5个方面，如图1所示。
1.提升教学成果的完成度与创意感
ChatGPT与教育的结合，能为学生的论文、作业、测试等提供支持，减少一系列重复性工作，激发生成具有创意感的内容（杨欢等，2022）。一位五年级教师Piercey分享了其利用ChatGPT将一名学生创作的故事重新组合成童谣、连续剧、儿童读物的过程（ED TECH，2022）。他详细解释了ChatGPT如何潜移默化地在一个五年级学生创作的简短故事中添加你想增加的元素，例如机器人、随机角色等，从而构建出更丰富的故事。他认为ChatGPT的出现为趣味性的课堂增添了可能性，为学生提供了一些非常独特的范例，学生能学会如何将写作内容描绘得更加生动和有趣。
ChatGPT不仅能创造出一段写实的故事、一篇精彩的文章、一首优美的诗，还能对写作类和编程代码类作业进行辅导。在写作方面，ChatGPT通过写作提示能鼓励学生更加深入地写作，提高其批判性思维。并且，ChatGPT能使学生认识不同的写作体裁与风格，以一种有趣的方式来帮助学生克服写作时的畏惧感。在辅助编程方面，ChatGPT可以为学生自动生成所需代码，促进学生将精力聚焦于更具有创造性的创意上。
2.增强数字导师的角色感与互动性
ChatGPT可以为学生分析、整合已有知识，并提供智能虚拟辅导与服务，使学生获得个性化的回答和反馈（Qadir，2022），可以作为学生互动学习、语言翻译与论文评分的数字导师。
首先，在ChatGPT的支持下，学生能够以对话方式与虚拟导师进行互动。有研究表明，基于生成式的会话代理可以为学生学习第二语言提供有效的支持，进而提升语言表达能力（Chang et al.，2022）。其次，ChatGPT可以翻译不同的语言，能为虚拟教师提供教学材料，为学生第二语言学习提供支持。已有研究表明，基于数据集训练的生成模型能够为学生提供准确的翻译结果（Wu et al.，2016）。再次，ChatGPT的数据模型能够精准地识别论文的主要特征，可以为学生的论文评分，使教师能有更多时间来专注于教学其他方面，从而减轻教师的压力。
国外学者Omar等（2022）尝试使用ChatGPT强大的语言模型吸引和教育学生。他们分享了ChatGPT作为数字导师如何训练学生语言技能和沟通技能的详细做法。例如在英语课程中，可以将ChatGPT作为对话伙伴，来练习学生的口语、听力、阅读和写作技能，鼓励学生参与讨论，从而加深学习印象；在历史课堂中，ChatGPT可以针对一个历史主题，从各种不同角度为学生提供相关材料，从而帮助学生更加开拓性地思考与讨论。可见，ChatGPT能在教与学中扮演数字导师角色，锻炼学生多方面的技能（Khan et al.，2023）。
3.提高自适应学习系统的易用性与精准度
ChatGPT能自动化辅助学生多项任务。“与ChatGPT对话，它会记住你所回复的内容，并且如果你不喜欢它回复的内容，你可以拓展、精炼回复的内容，甚至可以要求它以不同的声音和方式进行回复。”（Alshater，2022）因此，ChatGPT可以被用来创建自适应的学习系统，其模型能自动化理解用户输入的任务，并相应地调整自身输出内容的难度，自主化适应学生学习。教师也可以利用学生的进步和表现来调整自身教学方法，进而更有效率地完成教学目标。这无疑提高了自适应学习系统的易用性与精准度，为学生个性化学习提供了便利。
同时，ChatGPT还可以为学习有障碍的学生提供自适应服务，有助于促进教育的公平性和包容性。例如，ChatGPT可以为有阅读障碍的学生提供有声文本的朗读以及自动化的学习方法推荐，进而缩小数字鸿沟，创建学生学习方式的新样态。
4.促进教学策略与方式的智慧化与创造性
ChatGPT不仅能为学生带来便利，还可能引发教学方式的变革。ChatGPT可以创新教学策略，促进协作学习与经验学习。
首先，ChatGPT可以结合不同的教学方式，如基于游戏的教学、基于项目的教学等，通过不同方式赋能智慧化教学的趣味性，提高学习的投入度和体验感，让学生获益。它还能便捷地帮助教师布置随机的教学任务，生成不同级别且富有创造性的教学问题与答案，使教学策略和方式升级（Topsakal et al.，2022）。已有研究在课堂中借助ChatGPT实施翻转课堂、智慧课堂等教学方式，发现其有助于提升学生的学习兴趣（Rudolph et al.，2023）。
其次，ChatGPT可以帮助教师制定教学计划、对教学内容进行排序，并生成课堂问题，为教师节省大量寻找教学灵感的时间，这对于新手教师是非常有用的。教师借助ChatGPT，可以使用自然语言轻松地创建定制课程、测验和其他学习材料，显著提高教师教学的有效性和效率 （Pfeffer et al.，2023）。如此一来，教师可以将更多时间和精力专注于打造更优质的教学，为学生提供个性化学习。
最后，在适当教学策略的辅助下，ChatGPT还可以作为不同场景的学习手段，使学生分小组协作解决对应问题，进而促进学生之间的合作，让学生在体验中成长。
5.支持教学反馈与评价的生成性与个性化
教学反馈与评价是教学中非常关键的一环，有效的反馈能促进学生的理解，保证学习效果（陈明选等，2018）。ChatGPT可以实现个性化的学习指导、开发自动评估项目与评价再反馈。
首先，ChatGPT通过有针对性地提供学习资源，可以指导学生进行自主学习，获得必要的知识和技能。已有研究表明，ChatGPT及类似聊天机器人在个性化的学习指导方面具有一定的有效性，能进一步改善学习效果（Aljanabi，2023）。其对话功能可以及时纠正学生的错误理解，并提供符合不同年龄段学生知识理解水平的、量身定制的解释。
其次，ChatGPT可以协助教师生成个性化的教学评估项目，使教学评价走向公平化。例如，有研究通过ChatGPT开发了一个与中学生生活现象相关的评估任务来评估学生的学习表现，包括标题、方向和评估标准，并通过实证研究的方式验证了此评估项目的有效性（Zhai，2023）。
再次，ChatGPT不仅能协助评估和报告学生的学习表现，还能对学生的学习表现进行准确分析，并与家长或其他利益相关者共享。在人类反馈强化学习（RLHF）机制支持下，ChatGPT可以实现对教学评价的再反馈，甚至能分析学生对教学评价的反应。有研究尝试将一篇文章输入ChatGPT并要求它提出改进建议，发现ChatGPT作出的回应又快又准确，且还可监控和支持学生完成所有修改（Frieder et al.，2023）。
也有一些学者对ChatGPT在教育中的使用表示担忧。Alshater（2022）认为ChatGPT存在一定的局限性，包括对数据的质量存在依赖性、有限的知识领域、伦理问题、过度依赖技术与存在误用的可能性等。Baidoo-Anu等（2023）也认为，在教育中使用ChatGPT可能存在缺乏人类的互动、有限的理解、训练数据存在偏差、缺乏创造力、缺乏上下文的理解与泄露隐私等问题。Qadir（2022）还提出，ChatGPT和其他生成式人工智能系统一样可能会存在偏见，甚至产生和传播错误信息，并引发一系列伦理问题。当下教育领域最担心的是ChatGPT会帮助学生完成家庭作业或作弊，从而有损教育公平。
总的来说，虽然ChatGPT在教育中的应用具有很大潜力，但也存在学业诚信遭质疑、师生过度依赖、信息传输不准确、伦理风险难应对等风险与挑战，如图2所示。
1.学业诚信遭质疑，评估机制失平衡
ChatGPT能在多门学科中帮助学生完成学习任务，提高教学成果的完成度与创意感，但随之而来也引发了学者们对学生学业诚信的担忧。有研究者提出，ChatGPT可能会帮助学生实施作弊，使教育评估机制失去平衡，导致教育不公平的问题（Cotton et al.，2023；Ventayen，2023）。有研究者通过测试ChatGPT与真实考生在大学开放性考试中的作答结果后表示，ChatGPT的推出可能导致在线考试和开放性考试学术诚信的终结，因为ChatGPT的考试答案展现出了高度的批判思维和逻辑思维，能在很少的输入下生成高度逼真的文本，使学生在考试中作弊成为可能（Susnjak，2022）。此外，教务人员也表示很难区分学生和ChatGPT生成的写作内容，并且当学生使用ChatGPT回答问题时，教务人员很难充分评估学生的真实理解水平。因此，这可能导致已有教育评估机制的失效（Cotton et al.，2023）。达沃斯世界经济论坛人工智能负责人Kay Firth-Butterfield表示：学生提交人工智能生成的内容将影响其自我能力的提升，因为“这种行为好比是一个工作机器”。而且，教育领域对人工智能工具的反应是缓慢的，防止其带来的风险需多次尝试和反复调整才能准确实施（Pomeroy，2022）。当学生依赖人工智能产品，将创作的主权移交给AI后，学生又能在教育中学到什么呢？我们又如何掌握学生的真实水平呢？这对学业诚信检测与评估机制提出了巨大的挑战。
2.过度依赖生沉迷，教师地位恐弱化
诚然，ChatGPT和其他内容生成类模型能为学生提供互动学习，让学生在互动中受益（Baidoo-Anu et al.，2023）。2014年的一项研究也证明，与模仿人类情感行为的虚拟导师互动的学生学习效果更好（D’Mello et al.，2014）。但是，学生在多次使用ChatGPT后，很可能会产生一定的依赖心理。尤其在多次使用其协助完成学习任务并获得较好的成绩后，学生很可能沉迷于其效果。因智能工具产生依赖进而养成惰性心理是有先例的。如早前多有报道学生依赖作业搜题工具而导致学习成绩下降的问题。过度依赖在线工具可能降低学生的创造力，使其将节省的时间转移至与学习无关的方面。同时，强大的人工智能辅助工具也对教师的能力提出了更高的要求，教师需具有较强的知识对错辨别能力，特别是在备课环节能做到取其精华与去其糟粕（周洁等，2022）。而且，ChatGPT的过度使用也可能威胁教师在课堂中的地位，导致学生在课堂中不专心听讲，而将解决课后任务的希望寄托于ChatGPT。ChatGPT确实让知识获取更加容易、作业反馈更加便捷、学习模式更加多样，还能帮助教师节省文书工作、评分测验等，但如果师生不能适应ChatGPT带来的变化，其将带来怎样的后果，还不得而知。
3.信息传输不准确，知识水平受限制
尽管ChatGPT很像传统的搜索引擎，可以快速提供大量、丰富的学习信息，但其信息的准确性还无法保证。纽约市教育局就对ChatGPT向学生传达的信息表示了担忧，特别是对其答案的安全性和准确性提出了质疑。他们还担心使用ChatGPT会导致年轻学生变得自满，致其缺乏评估信息的必备技能（Hsu，2023）。OpenAI（2022）也承认，ChatGPT有时会回复看似合理但不正确或荒谬的答案，因为：（1）在反馈学习（Reinforcement Learning）训练期间，没有真实的信息来源；（2）训练模型较为谨慎导致它会拒绝可以正确回答的问题；（3）监督训练误导模型的回答。而且，ChatGPT对学生输入文本的调整或多次输入相同文本十分敏感。例如，在ChatGPT中输入想要询问的问题，ChatGPT可以声称不知道答案，但稍作改写就可以回答出正确的答案。正因如此，教学中使用ChatGPT时，必须是精确询问的文本。教师与学生并不能完全信任它。还有研究者指出，OpenAI上线ChatGPT时，其训练模型的数据受制于2021年，对2021年之后的世界的认知是有限的，对某些特殊人群的相关问题也知之甚少，尤其是对理科方面的内容掌握程度较低（Qadir，2022）。此外，ChatGPT无法与活跃的互联网相连接，无法从社交媒体中获取任何信息，数据集存在封闭性，所以生成不正确的信息是可能的。如果ChatGPT为学生生成的是一个围绕特定搜索主题的虚假阅读列表，那么ChatGPT能为教学提供便利的基础又何在呢？
4.伦理意识未加强，伦理风险难应对
人工智能伦理是指在道德上约束人工智能开发、管理、应用等应遵守的一切伦理原则和行为规范。随着人工智能的飞速发展，教育工作者们也必须具有一定的伦理意识。在ChatGPT为学生提供个性化的教学反馈时，以下三种伦理问题值得注意：数据隐私、偏见性与所有权，如图3所示。
第一， 数据隐私。为了获得ChatGPT对特定问题的解决方案，师生需要输入大量与之相关的数据和资料。ChatGPT在识别数据并为使用者提供满意的答复时，储存的数据却有可能被泄露。教育机构尤其是学校对第三方在未经同意的情况下如何正确使用学生数据表示担忧。
第二， 偏见性。ChatGPT是一个大型的语言模型，虽然被训练了几百万个数据点，包括了大量的文本与书籍，但由于其学习到的知识仅来自于训练数据中的统计规律，缺乏语境理解能力，无法像人类一样能对世界进行复杂和系统地了解，因此常具有攻击性和偏见性的反馈内容（Baidoo-Anu et al.，2023）。
第三， 所有权。ChatGPT为教师与学生生成的所有内容能否被直接使用需要评估。虽然ChatGPT代写编程代码、扩写生动故事等能力在短时间内已获得广泛认可，但这种生成性模型只能根据它们的训练数据模式生成响应，并不具备创新性和独创性。换句话说，ChatGPT的响应是汇聚数据库中数据的成果，这些作品的所有权又该属于谁呢？而后产生的一系列风险又应该由谁来承担呢（Pavlik，2023）？这需引起人们的高度重视。
无论ChatGPT为教育领域带来的是机遇还是风险，其作为一种变革性力量，已经在全球各个领域引发广泛关注。智能技术的快速发展，势必进一步引发教育的深刻变革。应如何正确谨慎地使用ChatGPT，积极吸纳ChatGPT带来的教育创新，同时制定合理使用的准则与标准以规避其风险，不仅关乎教育人工智能的创新融入，也影响着未来教育的发展方向。基于此，本文构建了未来ChatGPT教育应用的优化路径，如图4所示。
1.发展评估策略，重塑学术诚信
当前人们对ChatGPT在教育中应用的最大担忧，即是其可能引发学生作弊和学术不端现象。当前已有教育部门、高校、出版机构出台ChatGPT的使用禁令。但是堵不如疏。如何做好应对策略，才是教学管理者和有关机构应该重点关注的问题。一方面，教育机构应该加大对学生的诚信教育，帮助其认识学业诚信的重要性以及剽窃和作弊引发后果的严重性；同时鼓励学生原创。另一方面，教师要改进教学方式，设定明确的期望和指导方针，跟踪学生进度，定期审查学生的作业进度，或要求学生上交作业草稿以供审阅，及早发现学生问题并解决。此外，研究机构或企业也要积极进行产品研发，开发或改良诚信检测的软件或工具，帮助识别采用ChatGPT等智能工具辅助的成果。Turnitin检测软件承诺于2023年将最新的人工智能生成检测功能（包括识别ChatGPT生成文本）整合于已上市的监测产品中，这有助于解决学业诚信问题（Riley，2023）。
2.分割教学责任，加强情感互动
教育应以学生的发展为第一要义。ChatGPT可以作为数字导师，辅助教师教学，但在ChatGPT与教师之间，需明确各自的角色、任务与责任。教师要合理应用ChatGPT的技术功能，注重师生情感交流，增强人文关怀。学生可以将ChatGPT作为学习辅导工具，但不能形成惯性依赖。家长需积极配合教师，正确引导、监督学生使用ChatGPT。教学管理者要制定合理的政策与规范，协调学生、教师以及技术工具三者之间的关系，营造积极、健康的教学环境。
3.加速技术革新，促进教育发展
当前ChatGPT技术本身还存在缺陷，需不断优化和升级，以适应不同行业、领域的需求。2023年1月9日，OpenAI实验室对ChatGPT模型进行了最新一轮的改进，改进后ChatGPT能在更广泛的主题上进行响应，并提高了回答的真实性（Akhter et al.，2023）。此外，教师和学生在借助ChatGPT进行内容创作时必须明确，ChatGPT只是辅助工具，其“理解”和“创新”只是浅层的。ChatGPT能否被很好地应用于教育，取决于教育工作者能否发现正确使用ChatGPT的途径。教育的核心是人，技术只是工具。只有明确人与工具的关系，才能在教育中更好地发挥技术的功效，促进教育的发展。
4.制定伦理指南，监督应用方式
在伦理方面，应加快提升教育各层人士的人工智能伦理素养，强化“伦理先行”意识，加强自律自治，共同打造ChatGPT教育应用的良性发展生态。具体而言，一方面要制定ChatGPT等内容生成类智能工具的使用与应用指南，明确伦理界限；另一方面要加强伦理教育，确保学生、教师、管理者等了解伦理指南，并在学习与教学中以合乎伦理的方式使用ChatGPT。如可以将批判性思维与伦理元素纳入教学课程中，帮助学生培养负责任地使用ChatGPT所需要的技能和习惯。此外，还应综合应用多种举措，监督ChatGPT在教育环境下的使用，以防止不当应用行为的出现。
欢迎转载，开白请联系18980806833（微信号）